David E. Rumelhart

概述 (50-200字符)

David Everett Rumelhart (1942–2011)，美国认知心理学家，反向传播算法的共同发明者之一。1986 年与Geoffrey E. Hinton和Ronald J. Williams在 Nature 发表里程碑论文，开启了现代深度学习时代。他是并行分布式处理理论的奠基人之一。

关键内容 (≥300字符, 用双链)

1. 反向传播论文：1986 年，Rumelhart 与 Hinton、Williams 在 Nature 发表《Learning Representations by Back-propagating Errors》，仅 4 页，系统阐述了反向传播算法用于训练多层神经网络。论文给出了误差沿计算图逆向传播的完整数学推导，用链式法则计算每个权重对误差的贡献。该论文解决了长期困扰AI界的信用分配问题（Credit Assignment Problem）。

2. 认知科学贡献：Rumelhart 是认知科学和联结主义（connectionism）的奠基人之一。他与 James McClelland 合编的《Parallel Distributed Processing》(1986) 两卷本是联结主义运动的标志性著作，提出人类认知的本质是大规模并行分布式神经网络的信息处理。

3. 与 Hinton 的合作：Rumelhart 和 Hinton 在多伦多大学和加州大学圣地亚哥分校期间有长期合作。两人共同推动了神经网络从理论到实践的转变。Hinton 后来成为"深度学习教父"，而 Rumelhart 于 2011 年去世，未能见证深度学习的全面爆发。

4. XOR问题解决：1986年的论文通过反向传播算法解决了Minsky在1969年指出的XOR问题，证明了多层神经网络可以解决非线性可分问题。论文中包含了XOR问题的详细解决方案。

5. 家族关系学习实验：Rumelhart等人在1986年论文中最令人惊艳的实验之一，让网络学习家族关系，结果网络在隐藏层自动学习到了"国籍"、"辈分"等抽象概念，证明了神经网络可以自动学习有意义的内部表示。

来源

• [Nature 323(6088), 533–536] — Rumelhart, Hinton & Williams (1986)
• raw/articles/ai-papers/foundations/paper_02_backpropagation.md — 源文件
• [raw/articles/ai-papers/machine-learning/02_backpropagation_1986.md] — 源文件

相关

• Geoffrey E. Hinton — collaborated_with
• Ronald J. Williams — collaborated_with
• Learning Representations by Back-propagating Errors — authored
• Learning Representations by Back-propagating Errors (1986 论文) — authored
• 反向传播 — co_invented
• Parallel Distributed Processing — co_authored
• 信用分配问题（Credit Assignment Problem） — addressed
• XOR问题 — solved